Đứng đầu tổ chức của Viện Hàn lâm Khoa học và Công nghệ Việt Nam là ban lãnh đạo viện làm việc trực tiếp với các hội đồng khoa học chuyên ngành và liên ngành, cũng như với ba nhóm thành viên.

Nhóm thứ nhất là các viện con và trường, do Chính phủ Việt Nam thành lập bao gồm:

Nhóm thứ hai là các viện và phân viện do lãnh đạo Viện Hàn lâm Khoa học và Công nghệ Việt Nam ký quyết định thành lập, bao gồm:

Nhóm cuối cùng là các ban quản lý (như ban tổ chức cán bộ, ban kế hoạch tài chính, ban ứng dụng và triển khai công nghệ, ban hợp tác quốc tế, ban kiểm tra và các văn phòng thường trực tại các tỉnh thành) và các đơn vị hoạt động hạch toán độc lập (như viện Vật lý Ứng dụng và Thiết bị Khoa học, trung tâm đào tạo, tư vấn và chuyển giao công nghệ, trung tâm Nghiên cứu Năng lượng, và các doanh nghiệp và các đơn vị triển khai khoa học công nghệ khác).